Werner Vogels, CTO von Amazon: „Generative KI halluziniert nur, weil sie kein Gehirn hat.“

Einer MIT-Studie zufolge verzeichneten 95 % der Unternehmen, die in die Entwicklung generativer künstlicher Intelligenz investierten , weder Leistungsverbesserungen noch nennenswerte Auswirkungen. Eine andere Studie besagt, dass Chatbots wie ChatGPT im Vergleich zum Vorjahr doppelt so viele Fehlinformationen verbreiten . Und jede Woche erscheinen neue Berichte über die Effizienz dieser Technologie, aber auch über die Gefahren, die durch das Hochladen sensibler, persönlicher und arbeitsbezogener Daten durch Mitarbeiter entstehen. Wo stehen wir in Sachen KI?

„Der Begriff ‚künstliche Intelligenz‘ ist etwa 70 Jahre alt . Bis vor zweieinhalb Jahren stand generative KI nicht im Mittelpunkt der Aufmerksamkeit. Heute gibt es Systeme, die für Programmierung, Vorhersagen, Bilderkennung, Textzusammenfassung oder Finanzplanung funktionieren. Und wenn etwas funktioniert, heißt es nicht mehr ‚KI‘, sondern schlicht ‚Technologie‘“, erklärt Werner Vogels, Chief Technology Officer (CTO) von Amazon, gegenüber Clarín .

Vogels hat einen technischen Hintergrund. Der gebürtige Niederländer promovierte an der Freien Universität Amsterdam in Informatik bei Andrew Tanenbaum, einem der Väter der Betriebssysteme . Er kam 2004 zu Amazon, zu einer Zeit, als Jeff Bezos Amazon Web Services (AWS), die Cloud-Services-Abteilung von Amazon, als hochprofitables Geschäft zu betrachten begann.

Er nimmt regelmäßig an Konferenzen teil. Sein Vortrag bei reInvent (der größten jährlichen Veranstaltung von AWS) im letzten Jahr war der mit größter Spannung erwartete und kündigte etwas an, das sich nach etwa zehn Monaten bereits abzeichnet: Der KI-Hype hat begonnen, nachzulassen, und es zeichnen sich gerade erst erste Anwendungen in der realen Welt ab.

Er war fast einen Monat lang auf Lateinamerika-Tournee und besuchte Brasilien, Peru und den Amazonas. Aktuell ist er in Argentinien. Bei seinen Besuchen trifft er Kunden wie Mercado Libre, aber besonders gerne knüpft er Kontakte zur Cloud-Community: von Entwicklern bis zu Studierenden. Er besuchte auch die Stadt Córdoba und das Buenos Aires Institute of Technology (ITBA), um dort einen Vortrag vor Studierenden zu halten.

Der 20-jährige Amazon-Veteran blickt optimistisch in die aktuelle Ära, behält jedoch auch einen kritischen Blick: „Es gibt viele Unternehmen, die Angst hatten, etwas zu verpassen [FOMO] und KI einsetzten, ohne zu wissen, welches Problem sie lösen wollten, nur um dann festzustellen, dass sie eine sinnlose Investition getätigt hatten“, sagt er und weist außerdem auf die Warnungen hin, die sie hinsichtlich des Datenschutzes und der Gefahren der Verwendung von Chatbots als Psychologen oder für medizinische Beratung ohne Rücksprache mit Fachleuten hätten.

In diesem Jahr wird er Hauptredner bei Nerdearla sein, einer der wichtigsten Technologiekonferenzen Lateinamerikas. Die Konferenz startete am Dienstag, dem 23., online und dauert bis Samstag, dem 27., im Konex Cultural Center ( Anmeldung hier ). Seine Keynote hält er am Donnerstag, dem 25., vormittags.

Zwischen persönlichen Anekdoten, Fußballerinnerungen („Ich war 1978 im Monumental, um das Finale zwischen Argentinien und den Niederlanden zu sehen“) und endloser Weitschweifigkeit sprach er mit Clarín in den Büros von AWS Argentina in Núñez.

─Wie analysieren Sie die Masseneinführung von KI?

– Ich glaube, die generative KI ist anders entstanden als die Art und Weise, wie wir normalerweise Technologieprodukte auf den Markt bringen: Normalerweise klärt man die Community auf, arbeitet mit einer kleinen Gruppe von Benutzern ( Early Adopters ) und öffnet erst dann den Zugang. Stattdessen wurde dieses Tool ohne Vorwarnung oder Aufklärung direkt der breiten Öffentlichkeit präsentiert , was himmelhohe Erwartungen weckte. Fast so, als wäre es Zauberei. Und es ist keine Zauberei : Es ist einfach das nächste Tool in der Kiste. Ermöglicht es neue Dinge? Ja. Ist es „die“ ultimative Technologie? Nein. Es ist einfach eine weitere.

– Letztes Jahr sagten Sie mir, die Begeisterung für KI lasse langsam nach und wir würden erste praktische Anwendungen sehen. Jetzt sind fast zehn Monate vergangen: Wo haben Sie diese Fortschritte gesehen?

„Ich würde sagen, die größten Fortschritte haben wir in der Softwareentwicklung und Programmierung erzielt, weil wir dazu neigen, zuerst unsere eigenen Probleme zu lösen. Ein Großteil der Programmierarbeit basiert auf strukturiertem Text, was die Automatisierung schwerer Aufgaben durch KI erleichtert.“

Eine Studie des MIT zeigte, dass fast 95 % der Unternehmen, die in ihre eigene KI investierten, „wenig oder gar keine Auswirkungen“ hatten. Was ist passiert? Hat die Branche versagt?

─Viele Unternehmen wollen KI einführen, aber aus den falschen Gründen. Was ich bei unseren Kunden sehe, ist die Angst, etwas zu verpassen [ FOMO ]. Und das ist zum Teil Ihre Schuld [schaut den Journalisten an und lächelt], die der Medien. Sie sprechen von fünf neuen Modellen pro Woche, von „magischen“ Fähigkeiten, und CEOs oder CTOs treffen Entscheidungen auf Grundlage dieser Artikel, ohne selbst zu experimentieren. Es entsteht der Eindruck, dass jeder die Technologie bereits erfolgreich einsetzt, obwohl das nicht der Fall ist.

– Und wie sollen diese Innovationen dann angewendet werden?

─ Wichtig ist, das Problem zu identifizieren, das Sie lösen möchten. Wenn Sie Effizienz anstreben, kann KI Ihnen zwar bei der Schwerstarbeit helfen, aber sie ersetzt keinen Menschen. In regulierten Branchen wie dem Gesundheitswesen, der Rechtswissenschaft oder dem Finanzwesen liegt die Verantwortung bei Ihnen, nicht bei der KI, wenn ein Codegenerator einen Fehler macht, Sie ihn kopieren und einfügen und etwas Illegales schreiben. Deshalb ist es wichtig, sie zur Vorbereitung zu nutzen: Ein Anwalt, der zuvor 30 Fallrechtsbücher konsultieren musste, kann mit einer bereits erstellten Zusammenfassung beginnen; ein Sicherheitsingenieur, der eine Anfrage erhält, kann sich darauf verlassen, dass KI automatisch relevante Daten des Benutzers sammelt, der ihn kontaktiert hat, bevor er eine Entscheidung trifft. Es geht darum , die „Schwerstarbeit“ zu reduzieren und die endgültige Entscheidung dem Menschen zu überlassen.

– Chatbots wie ChatGPT gewöhnen sich zunehmend an die ständige Verfügbarkeit und daran, jederzeit eine Antwort zu erhalten. Beeinträchtigt oder verändert dies nicht die zwischenmenschlichen Beziehungen?

– Vor kurzem gab es eine Geschichte, in der eines dieser Modelle einem Jungen beim Selbstmord half . Es ist wirklich erschreckend. In solchen Fällen müssen wir meiner Meinung nach gute Schutzmaßnahmen ergreifen: Die Antwort des Modells hätte lauten müssen: „Hast du mit jemandem gesprochen?“ Hätte die Frage anders gelautet, zum Beispiel: „Kannst du mir sagen, wie man eine Atombombe baut?“, hätte es ihm eindeutig keine Anweisungen geben dürfen. Das Problem ist, dass das Modell ihm tatsächlich Dinge sagte wie: „Trink mehr Alkohol und erzähl es deiner Mutter nicht“, und das geht zu weit.

– Sprechen Sie mit Andy Jassy , ​​CEO von Amazon, über die Verantwortung, die mit der Leitung eines Technologieunternehmens und der Entwicklung dieser Tools einhergeht, die einen großen Einfluss auf die Gesellschaft haben?

– Ja, natürlich. Wir bei Amazon sind uns bewusst, dass mit dieser Geschäftsgröße und diesem Erfolg eine große Verantwortung einhergeht . Das bedeutet, dass unsere Verantwortung nicht nur darin besteht, Technologien zu entwickeln, sondern auch sicherzustellen, dass wir bei unsachgemäßer Nutzung der Technologie die richtigen Systeme entwickeln, um sie einzudämmen.

─Sind Sie normalerweise einer Meinung?

– Nun, wir sind uns in einigen Punkten nicht einig. Und das ist in Ordnung. Wenn Andy sagt, generative KI sei die erstaunlichste oder revolutionärste Technologie unserer Zeit, denke ich: Nun ja, ich habe die Mondlandung miterlebt, ich habe die Geburt des Internets miterlebt, ich habe Apps auf Handys gesehen, und jetzt haben wir generative KI. Natürlich mag es für diejenigen, die mittendrin stecken, wie das Erstaunlichste erscheinen. Sind wir da unterschiedlicher Meinung? Ja . Aber das heißt nicht, dass wir versuchen, uns gegenseitig umzustimmen. Und außerdem sind diese Unterschiede gar nicht so groß.

─Was ist wichtig für einen verantwortungsvollen Umgang mit KI?

─Es gibt zwei Möglichkeiten. Erstens: Benutzer schulen , denn Bildung ist das beste Mittel gegen Angst, und viele Geschäftsentscheidungen werden aus der Angst heraus getroffen, ausgeschlossen zu werden. Der Kampf beginnt damit, sicherzustellen, dass jeder geschult wird. Wir haben beispielsweise gerade ein Schulungsprogramm für 100.000 Menschen mit dem Namen „AWS Entrena Argentina“ gestartet. Dabei geht es nicht darum, ihnen den Umgang mit den Technologien bei Amazon beizubringen, sondern darum, die Konzepte zu verstehen: die Risiken und die Möglichkeiten dieser Technologien. Die zweite Möglichkeit, Ängste abzubauen, besteht darin, KI einfach zu nutzen: sie zu testen, mit ihr zu experimentieren und mit ihren Möglichkeiten zu experimentieren – immer verantwortungsvoll.

– Und selbst bei verantwortungsvollen Anwendungen gibt es Fälle, in denen KI eingesetzt wurde, um Opfern in gefährlichen Situationen zu helfen.

– Es gibt viele Fälle. Da ist zum Beispiel die Organisation Thorn , die über eine Datenbank mit 20.000 bis 25.000 vermissten Frauen und Kindern verfügt, die Opfer von Sexhandel geworden sind. Täglich vergleichen sie diese Bilder mithilfe von Amazon Rekognition mit denen in Escort-Anzeigen. Dank dieser Funktion konnten sie bereits 3.000 bis 4.000 Menschen aus Menschenhändlernetzwerken retten . Sie haben außerdem ein weiteres Tool entwickelt, um Grooming in sozialen Medien zu erkennen. Analysiert man Nachrichten zwischen Erwachsenen und Minderjährigen, kann das Modell die Wahrscheinlichkeit sexueller Belästigung berechnen. Klar ist, dass der verantwortungsvolle Umgang wichtiger ist als die Technologie selbst.

─Wie wichtig sind Daten im Kontext von KI?

─Sie sind alles. Ich erkläre es anhand einer Analogie aus dem Fußball. Dort setzen wir viel Technologie ein, um Verletzungen vorzubeugen. Jeder Spieler verfügt heute über eine Menge Tracking-Daten: Position, Geschwindigkeit, Herzfrequenz usw. Wir sehen sie; sie tragen diese Chips unter ihren Trikots. Aber diese Daten fließen nicht nur in die generative KI ein, sondern zuerst in Datenanalyseprogramme, denn letztendlich sind die Daten das Wichtigste. KI ist lediglich ein Werkzeug, das diese Daten nutzt, um eine Antwort zu geben, einen Vorschlag zu generieren oder eine Vorhersage zu treffen. Und wir haben immer gesagt: „Garbage in, garbage out “. Wenn man Müll in die KI steckt, ist das Ergebnis Müll. Das Gleiche passiert weiterhin mit der generativen KI, allerdings mit einem Problem: Wenn man Müll hineinsteckt, kommt Müll heraus, aber sehr überzeugender Müll.“

– Es gibt eine Studie (NewsGuard), die besagt, dass sich die Zahl der Fehlinformationen innerhalb eines Jahres verdoppelt hat, weil Chatbots auf alles reagieren und nicht „Nein“ sagen. Was halten Sie von diesen „Halluzinationen“?

─Zunächst einmal, und hier zitiere ich Byron Cook , einen AWS-Wissenschaftler, der sich auf maschinelles Lernen spezialisiert hat, heißt es: Generative KI halluziniert lediglich, weil sie kein Gehirn hat . Sie setzt lediglich Wörter auf der Grundlage statistischer Wahrscheinlichkeit zusammen. Es gibt keine Instanz, die es „weiß“ oder überprüft; sie sagt lediglich voraus, welches Wort im jeweiligen Kontext als nächstes kommt . Das führt zu Antworten, die plausibel klingen, aber falsch sein können, denn der Kontext, in dem sie verwendet werden, bestimmt, ob sie wahr oder falsch sind.

─Können Sie einige Beispiele nennen, um dies besser zu verstehen?

Trainiert man ein Modell ausschließlich mit Twitter-Daten, spiegeln die Antworten genau das wider: Gerüchte, Fehler, eine Mischung aus Wahrheit und Unwahrheit. Die Maschine unterscheidet nicht zwischen Fakten und Unwahrheiten ; für sie ist alles nur statistischer Text. Hier kommt der menschliche Faktor ins Spiel: Er ist unverzichtbar. KI kann einen Großteil der repetitiven oder Zusammenstellungsarbeit übernehmen, die endgültige Entscheidung, Validierung und Beurteilung sollte jedoch, insbesondere in sensiblen Bereichen, in menschlicher Hand liegen.

– In diesem Zusammenhang werden mehr erfahrene Mitarbeiter benötigt, um KI gut nutzen zu können. Was lernen Anfänger in diesem neuen Umfeld?

– Ich denke, das Wichtigste heute ist, „das Lernen zu lernen“. Manchmal vergessen die Leute das, aber Softwareentwickler zu sein bedeutet zum Beispiel etwas sehr Wichtiges: Man lernt sein ganzes Leben lang. Ich habe erst spät angefangen, mit 28, und habe damals Pascal und Cobol studiert. Heute programmiert kaum noch jemand in diesem Stil. Und in fünf Jahren wird es andere Probleme und andere Technologien geben. Ich denke, das muss auch in anderen Bereichen passieren, in denen lebenslanges Lernen die Norm ist: Das ist die Herausforderung für uns Lehrer, zu lehren, wie man fürs Leben lernt.

– Einer Ihrer Mentoren war Andrew S. Tanenbaum , der als einer der Väter der Betriebssysteme gilt und auch zu diesem Thema bei Nerdearla sprach. Welche Erinnerungen haben Sie an seine Lehren?

„Andy Tanenbaum ist der Professor, der seine Ansichten am stärksten vertritt, den ich je getroffen habe [lacht]. Aber Andy ist vor allem ein brillanter Kommunikator. Seine Bücher sind ein Nachschlagewerk für jeden, der etwas über Betriebssysteme lernen möchte. War er manchmal etwas überheblich? Ja, denn er hatte sehr starke Meinungen. Linus Torvalds begann damit, Unix von Grund auf neu zu entwickeln, das er später Linux nannte, und diese beiden Positionen standen die ganze Zeit im Konflikt , denn Andy war der festen Überzeugung, dass Linux viele seiner Ideen übernommen hatte und sein Ansatz viel besser war. Seiner Meinung nach hätte sein Betriebssystem zum Weltstandard werden sollen.

─Was war das Wichtigste, das Sie von ihm gelernt haben?

─ Er lehrte uns, selbstständig zu lernen. Andy sorgte dafür, dass wir lernten, uns eine eigene Meinung zu bilden und nicht nur zu wiederholen, was er sagte. Und ich glaube, er hat im Laufe der Zeit eine ganze Generation großartiger Schüler mit dieser Idee großgezogen: selbst zu denken und die Welt um uns herum kritisch zu betrachten.